Đụng độ giữa Quân đội Quốc gia Việt Nam và lực lượng Bình Xuyên bắt đầu từ đầu năm 1955 trong những trận xung đột vũ trang dữ dội ngay giữa Sài Gòn ngay từ khi Ngô Đình Diệm còn là thủ tướng. Chính những tranh chấp giữa chính phủ và các nhóm quân giáo phái là một động lực khai sinh nền Đệ Nhất Cộng hòa.

Nguyên là quân giáo phái vì đã có sẵn lực lượng vũ trang nên không chịu nhượng quyền cho chính phủ trung ương. Những lực lượng vũ trang này còn được sự hậu thuẫn của người Pháp, chưa thật lòng trao quyền lại cho chính phủ Quốc gia Việt Nam.[2] Vào Tháng Hai năm 1955 khi Pháp ngưng mọi chi viện cho lực lượng quân sự của hai giáo phái Cao Đài và Hòa Hảo thì hai nhóm này đòi chính phủ Ngô Đình Diệm phải chi viện. Thủ tướng Diệm từ chối.[3] Quân đội Cao Đài và Hòa Hảo từ đó liên kết với nhóm Bình Xuyên, vốn có lập trường chống lại chính phủ, lập ra Mặt trận Thống nhất Toàn lực Quốc gia. Tổ chức này đòi quyền tham chính, ra tối hậu thư ngày 21 Tháng Ba ép Thủ tướng Diệm phải thay đổi nội các trong vòng năm ngày, tức là trước ngày 26 tháng 3. Đại diện Cao Đài là Phạm Công Tắc; đại diện Hòa Hảo là Lê Quang Vinh, Lâm Thành Nguyên và Trần Văn Soái; và đại diện Bình Xuyên là Lê Văn Viễn cùng ký tên. Cũng vào Tháng 3, quân Bình Xuyên tấn công Bộ Tổng tham mưu rồi pháo kích Dinh Độc Lập. Quân chính phủ phản công bằng cách vây đánh Tổng nha Cảnh sát trên đại lộ Trần Hưng Đạo (Galliéni cũ) do Lại Văn Sang người của Bình Xuyên làm Tổng Giám đốc, đồng thời cầm đầu lực lượng Công an Xung phong. Thủ tướng Diệm phải cho triệu hồi Đại tá Dương Văn Minh về Sài Gòn để chỉ huy quân đội chống lại quân ly khai.

Ngày 26 tháng 4 năm 1955, Thủ tướng Diệm ra lệnh cách chức Tổng Giám đốc Cảnh sát Quốc gia của Lại Văn Sang và cử đại tá Nguyễn Ngọc Lễ vào thay thế nhưng Sang không tuân lệnh. Sang đòi phải có lệnh của Quốc trưởng Bảo Đại mới tuân thủ. Quân Bình Xuyên lại mở cuộc tấn công vào thành Cộng Hòa trưa ngày 27 và kêu gọi Quốc trưởng Bảo Đại can thiệp. Bảo Đại ra lệnh đòi Thủ tướng Diệm sang Pháp hội kiến nhưng bị Diệm bác bỏ. Rạng ngày 30 tháng 4 sau một cuộc giao tranh lớn gây hỏa hoạn ở khu Nancy và Chợ Quán[4] khiến 20.000 người phải sơ tán thì chính phủ kiểm soát được các cửa ngõ vào đô thành như cầu Chữ Y và cầu Tân Thuận, Khánh Hội khiến quân Bình Xuyên phải triệt thoái khỏi Sài Gòn, Chợ Lớn. Tổng kết bên chính phủ có 150 lính bị thương, hơn 20 tử vong; bên Bình Xuyên chết 100 người, 400 bị thương.[5] Sang tháng 5 thì nhóm chỉ huy Bình Xuyên gồm hai anh em Lại Hữu Tài, Lại Văn Sang và Lê Văn Viễn (thường gọi là Bảy Viễn) phải rút về Rừng Sát vì bị tướng Trình Minh Thế truy nã gắt gao[6]. Đến cuối năm 1955 sau Chiến dịch Hoàng Diệu thì lực lượng Bình Xuyên hoàn toàn tan rã[7]. Bảy Viễn chạy thoát được sang Campuchia rồi lưu vong sang Pháp[8].

Cũng năm 1955 chính phủ mở cuộc càn quét dẹp lực lượng vũ trang Hòa Hảo trong Chiến dịch Đinh Tiên Hoàng đánh vào Cái Vồn và Thốt Nốt. Ngày 5 tháng 6, chỉ huy lực lượng Hòa Hảo là tướng Nguyễn Giác Ngộ ra đầu hàng nhưng Lê Quang Vinh (tục danh Ba Cụt) thì cầm cự đến 1956 mới bị bắt ở Chắc Cà Đao và đem xử tử[9]. Trần Văn Soái (Năm Lửa) phải bỏ chạy sang Campuchia. Từ đó lực lượng vũ trang Hòa Hảo mới tan hẳn[8].

Đối với quân đội Cao Đài do hai tướng Trình Minh Thế và Nguyễn Thành Phương chỉ huy thì lực lượng này gia nhập Hội đồng Cách mạng ủng hộ Thủ tướng Diệm vào tháng 4 nên không có cuộc đụng độ giữa chính phủ và lực lượng Cao Đài. Riêng Hộ pháp Phạm Công Tắc phải lưu vong sang Cao Miên.